重新思考 Agent Harness 中的验证设计
🧭 Agent 验证设计与低成本 critic 扩展 ★ 深度解读
Cornell University · Alibaba Group
系统对比 17 种 agent 验证设计,独立低费 critic 带来 5.9–9.5pp 编码提升且成本仅 1.13–1.25×
📌 工作参考价值(4 点)
- 在电商 Agent 工作流(自动生成 SQL、商品文案、广告素材、数据分析报告)中,把最终验收拆给独立 critic,而不是让执行 agent 自查;critic 可用低成本模型,上下文只给任务要求和 diff/changes,不给完整轨迹,可降低 critic token 29–43% 且效果更稳。
- 对可视化/交互产物(如落地页、创意 Banner、可交互配置器),在 critic 指令中要求调用渲染/截图工具做视觉检查;VisualBench 显示 changes + visual inspection 净偏好最高(+23.8pp)。
- 用系统提示词注入简洁 verification instruction,并在每次代码/文件修改后插入 after-edit reminder,可作为低成本 default;但不要轻易使用完成时自我复查完成门,容易显著抬高成本。
- 如需继续 scale,优先增加独立 critic 数量(width)并合并反馈后一次修订,比多轮 review(depth)更省总成本(约 19% lower);避免让主 agent 多次重复执行。
CLIFT:基于共形自验证的 Web Agent 训练与测试时扩展
🧭 Web Agent 强化学习与测试时选择 ★ 深度解读
Salesforce AI Research
将昂贵 judge 反馈蒸馏为可认证的验证问题库,训练时做稠密奖励,测试时做无需 judge 的保守轨迹选择
📌 工作参考价值(4 点)
- 把昂贵 judge 反馈蒸馏成可复用的「验证问题库」:每个问题带 URL scope、polarity sign 和 conformal trust weight,训练时用非对称 reward 融合(只加不减,防止 reward collapse),可按 URL 状态做分层优势归一化,明显改善 agent RL 的 credit assignment。推荐/搜索 agent 训练中可借鉴此方式,针对领域定义可验证问题,用 lift 和 conformal 筛选后作为过程奖励。
- 测试时用同一冻结问题库做轨迹选择(CTS):greedy + diverse retries,自验证器输出结构化证据,保守多数投票默认保留 greedy,无需外部 judge 即可实现 test-time scaling,且能保证不回归。在线推理中可对 agent 轨迹做低风险 reranking,适合预算受限场景。
- 验证知识可与策略解耦:在 open model 上训练的 question bank 可直接迁移到 closed model(GPT-5.5)使用,节省强模型 fine-tune 成本。业务上可先在小模型上构建验证器,再用于大模型推理阶段的选择。
- 工程上采用 CEGAR 循环从 judge rationales 定期挖掘新验证问题,并用 polarity veto 纠正错误标签;Mondrian-ACI 跟踪器按 global/host/URL-path 分层动态校准信任权重,对分布漂移具有拒绝能力,可借鉴到构建自适应质量监控或评估器。
终端智能体动作级采样与验证方法
🧭 终端 Agent 动作级验证与测试时扩展 ★ 深度解读
NVIDIA · KAIST
在动作执行前采样并验证多个候选,以 pairwise 比较和蒸馏提升终端 Agent 轨迹成功率,成本效率优于纯轨迹扩展
📌 工作参考价值(4 点)
- 对会改变环境状态的关键动作(选品、改库存、出价、下架、发消息)在执行前采样多个候选并用 pairwise verifier 筛选;pairwise 比 listwise/pointwise 更稳定,尤其生成器与验证器同模型时。
- 有更强模型但推理成本高时,离线收集 teacher 的 pairwise 偏好,用 LoRA 蒸馏出轻量 verifier,生成器不动;决策-only 只输出 A/B,可再降 20-24% token 成本,9B 模型上 Pass@1 不降反升。
- 动作级验证可与轨迹级 Best-of-N/Sequential Refine 叠加:同等环境执行次数下 Pass@1 可显著提升;测试时算力优先加动作验证,比单纯多跑完整 trajectory 更划算。
- 离线诊断 disagreement 发现失败集中在「命令语义 / 执行可行性」,建议业务中重点标注此类样本,优化 verifier。
AREX-2:通过长程反思任务推进自改进智能体
🧭 自改进 Agent · 长程反思训练 ★ 深度解读
Beijing Academy of Artificial Intelligence (BAAI)
用长程反思轨迹训练 27B agent,在 ML/编程及深度研究基准上逼近更大模型
📌 工作参考价值(4 点)
- 把“失败和恢复”写进训练轨迹,而不是只保留成功答案:在电商搜索/广告 agent 做 query 改写、创意优化时,可用离线仿真或历史日志构造多轮改进轨迹,保留负面反馈与后续修复步骤,loss 只施加在产生进步的动作上。
- 用 graded reward 替代 binary pass/fail:推荐/搜索中的 ranking 调优或选词不要只给“是否采纳”,可给连续指标(CTR、NDCG、转化率变化量),让每轮反馈都有信息量,延长有效迭代轮数。
- 把 operational knowledge 做成可注入的 skills:在基座模型不变的情况下,将商品类目规则、广告政策、用户意图词典等做成紧凑文档放进 context,能显著提升 agent 初始能力;实验中 base 从 28.8 到 68.2,说明业务知识注入比重新训练更便宜。
- 在线上 agentic 工作流中预留 round budget,并用 best-so-far 指标评估:例如对高价值广告计划或搜索 query,可给 agent 多次尝试与自评机会,按测试时消耗动态增加调用;但注意有效 horizon,超出 T* 后不再提升。
CliffCompaction:面向长程编码智能体的高成本效率上下文压缩
🧭 Agent 长程上下文压缩与成本优化
Carnegie Mellon University · Bosch Center for AI
一种只截断/丢弃、不重写原文的自动压缩法,在受限上下文下最多降低50%成本并保持或提升编码Agent性能
📌 工作参考价值(4 点)
- 在需要长会话/多轮 Agent 的场景(如导购、客服、推荐解释)中,上下文压缩优先采用“只截断/丢弃原始内容、不重写”,避免摘要改写引入信息偏差,可显著降低 API 成本且保持质量。
- 强制“绝不压缩已压缩内容”,每轮压缩都基于原始会话/文档,防止跨轮次的上下文漂移累积,适合超过百万 token 的持续学习/多轮交互。
- 将压缩逻辑做成 API proxy,不改动现有 agent scaffold 即可接入 Claude Code、Codex 等,业务侧可快速对现有推荐/广告 Agent 工作流做成本优化和 A/B 测试。
- 用相同预算做 test-time scaling(如并行采样多个推荐解释/策略)时,压缩带来的 per-rollout 节省让更多采样成为可能,可能以更低成本获得性能提升。
CritICL:利用小模型失败模式实现推理时弱到强泛化
🧭 推理时弱到强泛化 · 失败模式检索 ★ 深度解读
The Ohio State University · Princeton University
用同家族弱模型失败模式构建离线批判库,推理时按失败模式检索注入大模型,单次生成匹配多次采样性能
📌 工作参考价值(4 点)
- 建立业务侧“失败模式 CritBank”:用较小/便宜的模型或线上历史 badcase 生成错误响应,由强 LLM 离线标注失败类型和纠正说明;在 query 理解、商品属性抽取、推荐理由生成等任务中,把失败模式预测或静态画像作为检索键,从库中取示例注入 prompt,减少在线多路采样成本。
- 检索键从语义相似度改为失败模式/错误类型:实验显示比随机、固定、语义相似度检索高 4-6 个点;推荐场景可先预测用户/物品/请求的易错标签,再召回对应纠错示例,比只找相似 case 更直接规避模型系统性错误。
- 同模型家族多尺度失败分布稳定(Spearman 0.88-0.91),聚合多个弱模型比单一弱模型更贴近大模型;在模型升级或蒸馏时,可以用同架构旧小模型收集错误,指导新大模型上线前的 prompt 防御性设计或 few-shot 示例库构建。
- CritICL-static 只需单次生成即可达到 Consistency@5 效果,总 token 远低于 self-reflection 和 LLM-as-judge;适合线上延迟敏感、需要快速推理的 Agent 链路,也说明离线构建错误知识库比在线多路验证更划算。
声明级可靠性评估:高效测试时推理
🧭 LLM测试时推理 · 声明级证伪
Sina Weibo Inc.
提出声明级证伪的测试时计算重分配框架CLR,用关键声明验证替代额外采样,提升推理准确率并节省37% token
📌 工作参考价值(4 点)
- 在Agent多步工具调用或推理链中,不要对整条trace打分,而是先抽取决策关键声明(decision-critical claims)进行定向验证,可避免常规token噪声稀释错误信号,提高错误步骤召回率。
- 利用“构造难、证伪易”不对称性:对候选答案做语义证伪而非整体重生成,通过查找单点致命矛盾淘汰错误候选,比多数投票更省token且更准;可应用于排序/召回中的多候选融合。
- 推理服务资源受限时,把额外算力从“多采样”转移到“验证器”:用轻量模型或规则对声明级证据做检查,工程上可获得类似本工作37% token节省,同时准确率提升。
- 设计非线性可靠性评分抑制高置信错误共识,而不是简单平均置信度;对电商搜索中的query改写、答案生成等场景,可提升最终输出聚合质量。
EnvACE:通过世界排练内化环境动力学用于智能体强化学习
🧭 Agent强化学习 · 世界模型内化 ★ 深度解读
Shanghai Jiao Tong University · Zhejiang University · National University of Singapore · Sun Yat-sen University · Tencent Inc.
让策略自身扮演环境生成响应,内化交互动力学,实现不依赖外部环境的智能体RL训练
📌 工作参考价值(4 点)
- 训练范式迁移:将环境响应生成的角色交给策略自身,省去构建昂贵的外部仿真环境。对于电商工具调用 Agent(查询库存、下单、修改订单)的训练,可直接用历史交互数据让模型同时学习“动作+响应”,大幅降低环境搭建成本。
- 角色明智 GRPO:对 acting 和 rehearsal 两个角色分别计算基线,但共享参数梯度更新。电商 Agent 训练时可将用户模拟、工具返回模拟作为 rehearsal 角色,与真实 action 角色联合优化,让策略更深刻理解交互因果关系。
- 测试时安全排练:在正式执行前,策略内部进行多次“想象推演”,汇总反馈后指导实际动作。适用于高风险场景(如退款、取消订单、修改支付方式),提前预测错误并修正参数,避免真实环境错误操作。
- 数据效率提升:世界排练允许在无外部反馈的条件下持续改进策略,可在离线数据上预训练 Agent,或结合少量真实交互微调,提升 RL 样本效率。
Kimi K3:开源前沿智能体——2.8T参数MoE模型与强化学习实践
🧭 大规模 MoE 模型前沿训练与强化学习 ★ 深度解读
Moonshot AI
开源2.8T参数MoE模型,融合KDA、AttnRes和Stable LatentMoE架构,通过多领域多推理努力强化学习达到封闭前沿水平
📌 工作参考价值(4 点)
- 强化学习训练范式:部分回滚(partial rollout)方案允许长周期任务跨迭代训练,对搜索 / 推荐系统中基于用户长期反馈的强化学习优化具有直接借鉴意义。
- 多教师在线蒸馏(MOPD):将多个领域、不同推理努力水平的专家策略融合为单一模型的技术,可应用于合并不同排序目标的推荐模型(如点击率、转化率、多样性等)。
- 推理部署优化:全后训练阶段集成的量化感知训练(QAT)及 EAGLE-3 投机解码微调,可降低大模型推荐 / 搜索推理成本,对线上部署有实际工程价值。
- 长上下文架构设计:KDA 与 Attention Residuals 的混合注意力可高效处理超长序列,可迁移至用户行为序列建模,支持更长行为记忆和更精准的长期兴趣提取。
通过错误定位实现推理时缩放
🧭 推理时缩放 · 错误定位引导前缀树搜索 ★ 深度解读
Google DeepMind
利用反馈在 token 级定位错误,保留正确前缀分支执行,大幅提升推理时搜索的 token 效率
📌 工作参考价值(4 点)
- Agent 多步推理的自我修正:在 Agent 执行复杂任务(如工具调用、多轮对话)时,可利用 TTEL 的 token 级错误定位思想,根据环境反馈(如 API 报错)的 log 概率偏移找到出错步骤,仅回退到该步骤重试,避免从头重复整段推理,可大幅降低 token 消耗。
- 生成式推荐 / 广告文案的“局部重写”:当生成推荐理由或广告创意被判为低质时,可借鉴 TTEL 的「前缀保留 + 后缀分支」策略:不重写全文,而是通过模型在有无反馈条件下的 token 概率差定位问题片段,只替换可疑部分,保留高概率前缀,提升生成效率和质量。
- null‑baseline 过滤噪声信号:方法中引入非诊断性反馈 null‑feedback 减去上下文引入的通用概率偏移,得到真正由反馈驱动的不一致。在业务场景(如评分反馈修正)中,可以直接模仿这一 trick,避免因模型对长文本的自然概率衰减而误判错误位置。
- 推理预算固定下的更优 Pareto 前沿:TTEL 在同等 token 预算下 pass@k 更高,表明在实时性要求高的在线服务(如搜索、广告)中,采用局部修补的树搜索可取代独立重采样,更划算地使用推理资源。
递归护栏自我改进:少量迭代提升智能体性能上限
🧭 Agent 自我优化 · 提示级迭代改进
Sakana AI · UC Berkeley
提出RHI,通过提示级迭代优化智能体循环,仅需少量样本即可超越最大推理设置并降低60%成本
📌 工作参考价值(4 点)
- 在电商推荐或搜索的Agent工作流中,可对编排提示(harness)进行任务特定的迭代优化,而无需依赖模型推理深度,从而以更低成本获得更优性能。
- 利用成对比较反馈自动优化多智能体间的信息流,提升复杂任务(如多轮对话推荐、用户意图理解)中上下文管理的有效性。
- RHI的轻量级特点(仅需少量迭代与低推理努力Agent)表明,实际业务可快速微调Agent编排模板,避免昂贵的手工设计或重训练。
- 实验显示性能增益源于改进的上下文管理而非更长推理,提示优化Agent间通信机制(如工具调用、中间结果传递)可能比堆叠推理步骤更高效,对商品检索或广告策略Agent有参考意义。
重新审视智能体 Harness 进化的评估
🧭 Agent Harness 进化评估
Allen Institute for AI · University of Washington · Independent
自动 Harness 进化在公平比较下未超越简单测试时搜索,且泛化有限,呼吁新评估协议
📌 工作参考价值(4 点)
- 公平基线设计:在为业务 Agent 引入自动 Harness 优化时,必须以简单 test-time scaling(如多次采样投票)为基线,匹配推理预算,确保增益来自设计改进而非额外搜索。
- 防过拟合拆分:搜索配置与最终评估必须使用不同任务集,避免在公共 benchmark 上循环优化导致的过拟合,提升上线后的泛化性。
- 谨慎采用自动进化:实验显示自动 Harness 进化并不稳定优于简单基线,落地时优先考虑可靠的固定 Harness,仅当有强泛化证据时才投入自动搜索。
- 关注现实迁移:评估 Harness 时增加留出任务集测试,模拟业务中分布外场景,防止在熟悉任务上虚高,确保 Agent 在真实多变环境中有效。
LLM作为验证器:通用细粒度验证框架
🧭 Agent验证与测试时扩展 ★ 深度解读
Stanford University · UC Berkeley · NVIDIA Research
用token logits期望代替离散评分,实现连续验证并支持评分粒度、重复、分解三维扩展,跨域SOTA
📌 工作参考价值(4 点)
- 连续评分替代离散打分:提取评分token完整logits分布求期望,消除离散评委的高平局率(27%→0%),可迁移到任何需LLM打分排序的场景(广告/商品质量评估),显著提升区分度。
- 三维验证扩展:通过评分粒度(1→20 tokens)、重复评估(1→16次)、标准分解(单标准→多标准Ensemble),验证准确率从73%提升至78%,工程中可按成本预算灵活拼接,平衡精度与延迟。
- 成本高效候选选择:概率枢轴锦标赛(PPT)算法,仅需𝒪(Nk²)次比较(k≪N),利用环形消除位置偏置并集中预算于前k候选,适用于大规模召回后的精排或生成式推荐item pool筛选。
- 验证分数作为稠密RL奖励:将连续验证信号作为中间过程奖励,显著提升off-policy SAC(约1.8×样本效率)和on-policy GRPO(1.1×效率)的训练速度与最终成功率,可直接用于推荐策略或聊天Agent的强化学习优化,无需手工设计奖励函数。
三思而后行:将树搜索蒸馏为冻结VLA模型的动作评估
🧭 Agent 动作评估与测试时缩放
Nanjing University · Australian National University · Institute of Automation, Chinese Academy of Sciences · Nvidia
通过MCTS树搜索采集轨迹并蒸馏为轻量Q值模型,解耦动作提案与后果评估,在不微调VLA下显著提升泛化与效率
📌 工作参考价值(4 点)
- Agent 动作解耦范式:将动作生成(VLA)与长期后果评估(Q模型)分离,保持通用模型冻结,仅训练轻量评估器,避免微调带来的泛化能力损失,适用于电商推荐Agent中对话/多步决策的在线动作选择。
- 仿真树搜索蒸馏:利用离线仿真环境或历史日志构建奖励信号,通过MCTS充分探索候选动作空间并收集带回报的轨迹,蒸馏为Q值预测器。在搜索推荐Agent中,可对候选query/文案/策略进行前瞻性评估后再执行。
- 测试时缩放替代模型缩放:通过增加候选动作采样数(如pass@k)和评估器计算来提升性能,比直接扩大模型更具性价比。例如在低延迟要求下,用小模型生成多候选+评估器挑选,超过大模型效果。
- 不确定性正则化Q值:在选择动作时结合不确定性惩罚,平衡探索与利用,可借鉴到多臂老虎机或在线探索推荐场景,用于候选物品/文案的最终择优。
被忽视的免费午餐:LLM Agent 的进展优势
🧭 Agent 过程评估 · 优势函数 ★ 深度解读
University of Wisconsin–Madison · Argonne National Laboratory
从 RL 后训练中直接提取策略与参考策略的对数概率比作为隐式过程奖励,无需训练专用奖励模型。
📌 工作参考价值(4 点)
- 零成本过程评估:直接使用 RL 微调后 checkpoint 与其参考 checkpoint(如 base 模型)的 log概率比作为每步动作的进展优势,可替代昂贵且难以泛化的过程奖励模型训练,适合电商场景下多轮对话、工具调用等 agent 轨迹的实时监控。
- Best-of-N 采样提升成功率:在需要探索温度高、重试多次的任务(如对话式客服、复杂搜索流程)中,使用进展优势对候选轨迹评分并选择最佳轨迹,可显著提升任务完成率,实验在 τ2-Airline 等 agent 基准上超越专门训练的奖励模型。
- Agent 轨迹不确定性量化:将轨迹级进展优势作为成功的预测信号,可在无额外训练下准确判断 agent 交互是否可能失败,用于风险控制或在线干预;实验在多个模型上 AUROC 达 0.865,优于置信度基线和预训练 PRM。
- 故障步骤定位:在多智体或工具调用链条中,通过最小化每步进展优势来定位导致失败的关键步骤,辅助线上问题诊断和信用分配,几乎达到专门训练方法的精度。
多智能体编排的奖励建模
🧭 多智体编排 · 奖励建模 ★ 深度解读
Rutgers University · Salesforce AI Research
提出编排级奖励模型 Orch-RM,用自监督偏好对训练,无需人工标注和子 Agent 全量执行,显著提升测试时缩放和编排器训练的效率与效果
📌 工作参考价值(4 点)
- 编排级奖励信号直接用于推理:Orch-RM 在编排层面评分,无需执行子 Agent 即可选择最优编排方案,将 BrowseComp 验证成本从 142.8M token 降至 8.26M,准确率还提升 1.5%。电商多 Agent 场景(如客服路由、推荐流程编排)可借鉴,在低延迟要求下用轻量奖励模型筛选高质量协作图。
- 利用训练中间产物构造偏好对:从训练检查点和轨迹中自动构造“专用优于基础”和“正确优于错误”两类偏好对,无需人工标注。业务中若已有多 Agent 训练日志,可直接复用该自监督构造方法,大幅降低评估器标注成本。
- 奖励模型指导继续训练:Orch-RM 替代全轨迹 GRPO 的稀疏奖励,在 AIME 24&25 上使用约 1/10 的训练 token 取得 3% 的 majority vote 提升,BrowseComp 上更以 1/46 token 量实现 2% 提升。对于需要频繁迭代的编排策略模型,可大幅节省训练算力。
- 域特定奖励模型可迁移:论文训练了数学、Web QA 等域特定奖励模型,并在 GPQA(科学推理)上验证了跨域泛化能力。电商多域(推荐、搜索、客服)可分别训练编排评估器,或探索多域融合的统一奖励模型,降低重复训练成本。
MaxProof:基于生成式验证器RL和群体级测试时扩展的数学证明规模化
🧭 数学证明 · 生成式验证器 · 测试时扩展
MiniMax · The Chinese University of Hong Kong · Fudan University · Peking University · Tsinghua University
通过生成-验证-修复一体化训练与锦标赛搜索,在IMO 2025和USAMO 2026上超越人类金牌线
📌 工作参考价值(4 点)
- 防御式多层验证器(defense-in-depth verifier)降低误判的思路可迁移至电商推荐中的内容审核、虚假评论检测等高风险场景,通过生成式模型直接判断并给出理由提升解释性。
- 群体级测试时扩展(population-level test-time scaling)的锦标赛搜索框架可启发多智能体推荐系统,将生成、验证、排序等角色分配给同一模型的不同调用,在推理阶段提升最终推荐质量。
- 将验证器训练与生成器对齐,通过“错误发现”任务强化模型对瑕疵的感知,这一范式可用于商品描述生成或广告文案的自我修正,减少人工审核成本。
- RF过程中的数据领域和技巧平衡策略(domain and trick balance)对电商冷启动或长尾商品建模有借鉴意义,通过构造均衡训练集避免模型偏向高频模式。
去中心化多智能体系统与共享上下文
🧭 去中心化多智能体协调框架 ★ 深度解读
Stanford University
提出去中心化多智能体框架DELM,通过共享验证上下文和异步任务队列,在软件工程与长上下文推理上显著提升性能并降低近半成本。
📌 工作参考价值(4 点)
- 共享验证状态替代中心化路由:在电商多智能体场景(如并行搜索、推荐、客服),通过维护一个全局共享的已验证上下文(可类比为购物车状态或用户意图),让多个 Agent 异步读写紧凑进展摘要,避免依赖单一协调器合并结果,减少串行瓶颈和错误传播。
- 先验证后准入的防污染机制:对 Agent 写入共享状态的内容进行自动验证,检查其与原始证据的一致性,避免不可靠的信息在 Agent 间扩散。在商品知识库更新、多源信��聚合时,可借鉴此设计确保共享状态可信。
- 分层压缩与按需展开:用极简要点(gist)构建全局视图,需要细节时再追溯深层摘要或原始数据,降低长上下文推理的 token 开销。处理海量商品描述、用户评论、长文档问答时,可在低分辨率快速扫描后精准定位关键段落。
- 异步任务队列与自主领取:Agent 从队列自行认领子任务,完成后写回结果,适合大量并行子任务(如分品类推荐生成、多广告渠道创意生成),天然支持弹性扩展,并可通过失败记录复用避免重复试错。
小RL控制器驱动大语言模型:RL引导的自适应采样实现测试时扩展
🧭 测试时扩展 · 强化学习自适应采样 ★ 深度解读
University of North Carolina at Chapel Hill · University of Maryland, College Park · Washington University in St. Louis
将自适应采样建模为MDP,用4层MLP的RL控制器仅依赖答案统计联合优化正确率、延迟与计算量。
📌 工作参考价值(4 点)
- 动态资源分配MDP化:将推理预算分配形式化为MDP的思路可直接迁移到电商推荐系统的召回、排序阶段,用轻量RL控制器动态决定何时停止多路召回或特征计算,平衡延迟与效果。
- 仅依赖轻量统计状态:状态仅需top-K答案计数、总样本数和熵,无需模型内部logits或置信度,部署极简,适合在线服务场景。类似地,在推荐系统中可以仅用候选集统计特征(如多样性、得分分布)做决策。
- 跨模型泛化能力:控制器在不同LLM和数据集间可迁移,暗示训练一个通用预算分配器可行。在Agent或多智体场景中,可先基于低成本模型训练协调器,再无损迁移到昂贵模型上使用。
- Lagrangian视角提供约束优化理论支撑:将延迟/计算约束通过拉格朗日对偶显式引入奖励函数,便于在业务中直接设定成本上限并寻优,可启发多目标推荐系统的在线预算控制。
协作并行思维:通过信息共享减少测试时搜索冗余
🧭 协作式并行推理 · Test-Time Scaling
School of Computer Science, Beijing Institute of Technology · Xiaohongshu Inc
提出训练无关的协作并行推理框架 CPT,在并行分支间实时共享压缩信息,显著提升测试时扩展的搜索效率
📌 工作参考价值(4 点)
- 在多策略推荐系统的在线探索中,可借鉴共享信息池机制:不同探索分支发现的用户偏好或有效特征及时广播,避免重复探索,加速收敛。
- Agent 多智体协作场景下,各 Agent 的中间推理结果压缩存入共享内存,其他 Agent 可直接复用,减少重复搜索,提升任务完成效率。
- 生成式推荐中的树搜索或束搜索,可让不同束路径共享已验证的有用 token 序列信息,降低计算冗余,提升解码吞吐。
- 工程上,CPT 的实现是轻量的、训练无关的,可直接嵌入现有并行推理管线,信息提取与去重广播开销小,易于部署。
CoSPlay:测试时无监督自博弈协同进化代码与单元测试
🧭 代码生成 · 无监督自博弈 · Test-Time Scaling ★ 深度解读
The Hong Kong University of Science and Technology (Guangzhou) · Institute of Deep Perception Technology, JITRI, Wuxi, China
提出无监督、无训练的测试时自博弈框架,代码与自生成的单元测试通过执行矩阵双向验证协同进化,显著提升代码生成正确率
📌 工作参考价值(4 点)
- 可复用的协同进化机制:在电商多智能体系统中,可让策略生成器与自生成的验证规则(类似单元测试)形成双向反馈循环,通过执行成功次数信号清理低效策略、修复缺陷行为,实现无监督的迭代优化。
- 共识聚类提升最终选择可靠性:当多个候选策略/推荐结果得分相同时,利用随机输入下的输出一致性聚类进行二次筛选,正确策略因行为一致而聚集,此技巧可迁移到推荐模型的融合、多臂老虎机决策等场景。
- 探索-攻击驱动的验证样例生成:先探索解决方案思路,再针对潜在失败模式生成判别性测试,这种“生成后攻击”的方法可用于电商Agent的鲁棒性测试,自动挖掘边界异常输入。
- 成本-性能优势:在相同推理预算下,将算力投入执行驱动的自博弈比单纯扩大采样规模更高效,该思路适用于任何具备可验证反馈的生成任务(如生成式推荐的质量评估)。
超越二元:将 GUI 评价重铸为连续语义对齐
🧭 Agent ★ 深度解读
上海交通大学 · 小米
将 GUI 动作批评从二元分类改革为连续度量学习,在共享 Affordance 空间中恢复层次语义结构,无需额外标注